Test al armatei SUA: O dronă controlată de inteligența artificială „și-a ucis operatorul”

Armata Statelor Unite ale Americii a efectuat un test virtual cu o dronă controlată de inteligența artificială și a constatat că aceasta și-a ucis operatorul, pentru că stătea în calea îndeplinirii misiunii sale.

Colonel american, despre pericolul folosirii inteligenței artificiale în controlarea dronelor

Colonelul american Tucker „Cinco” Hamilton, şeful operaţiunilor AI din cadrul forţelor aeriene americane, a făcut dezvăluirea. Oficialul a explicat că în ciuda faptului că nicio persoană reală nu a fost rănită în cadrul testului, inteligenţa artificială a folosit „strategii extrem de neaşteptate” pentru a-şi îndeplini misiunea şi ar fi atacat pe oricine ar fi intervenit în calea sa.

Concret, dronei manevrate de inteligenţa artificială i s-a cerut să distrugă sistemele de apărare aeriană ale unui inamic, iar sistemul a atacat în cele din urmă pe oricine a intervenit în calea executării acestui ordin.

„Sistemul a început să îşi dea seama că, deşi identifica ameninţarea, uneori operatorul uman îi spunea să nu ucidă acea ameninţare, însă drona îşi atingea obiectivele prin uciderea acelei ameninţări. Deci, ce a făcut? A ucis operatorul. L-a ucis pe operator pentru că acea persoană îl împiedica să îşi îndeplinească obiectivul”, a explicat oficialul.

„Am antrenat sistemul: Hei, nu omorâţi operatorul – asta e rău. Vei pierde puncte dacă faci asta. Şi atunci, ce începe să facă? Începe să distrugă turnul de comunicaţii pe care operatorul îl folosea pentru a comunica cu drona ca să o împiedice să ucidă ţinta”, a dezvăluit colonelul.

Astfel, Tucker Hamilton, care este pilot de teste experimentale pentru aviaţia militară, a avertizat în privinţa încrederii prea mari în inteligenţa artificială şi a declarat că testul arată că „nu poţi avea o conversaţie despre inteligenţa artificială, informaţii, învăţare automată, autonomie dacă nu vei vorbi și despre etică”.

Inteligența artificială, folosită pentru a controla un avion de luptă F-16

Pe de altă parte, purtătoarea de cuvânt a Forţelor Aeriene, Ann Stefanek, a negat că ar fi avut loc o astfel de simulare.

„Departamentul Forţelor Aeriene nu a efectuat nicio astfel de simulare cu drone cu inteligenţă artificială şi rămâne angajat în utilizarea etică şi responsabilă a tehnologiei de inteligenţă artificială. Din câte se pare, comentariile colonelului au fost scoase din context şi s-au dorit a fi anecdotice”, a declarat Stefanek.

Totuși, armata Statelor Unite ale Americii a folosit recent inteligenţa artificială pentru a controla un avion de luptă F-16.